Sau đó ông chuyển sang quân đội. Năm 1951 ông là Phó chủ nhiệm Tổng cục Cung cấp, tham gia các chiến dịch Thượng Lào, Biên Giới, Hòa Bình, Tây Bắc, Hà Nam Ninh và là Chủ nhiệm cung cấp, một trong bốn thành viên của Bộ chỉ huy và Đảng ủy Mặt trận Điện Biên, chịu trách nhiệm đảm bảo quân lương, súng đạn cho chiến dịch Điện Biên Phủ.

Năm 1954, ông là Phó chủ nhiệm Tổng cục Hậu cần Quân đội nhân dân Việt Nam, Ủy viên Quân ủy Trung ương. Năm 1958, ông được phong quân hàm thiếu tướng. Năm 1959 - 1960 ông làm Quyền Chủ nhiệm Tổng cục Hậu cần.